Câu lạc bộ thành lập năm 1965 bởi những cầu thủ đại diện cho tỉnh Nagano. Các cầu thủ hay tới quán cà phê có tên Yamaga ở trước ga đường sắt Matsumoto và ban đầu họ được gọi đơn giản là Câu lạc bộ Yamaga. Năm 2004, họ đổi tên thành Matsumoto Yamaga FC khi tổ chức phi lợi nhận Alwin Sports Project hỗ trợ câu lạc bộ trong việc lên chơi tại J. League.

Mùa giải 2007 và 2008 họ lần lượt xếp thứ nhất và thứ tư tại Giải Hokushin'etsu Hạng Nhất, nhưng không thể giành quyền lên Japan Football League sau khi bị loại từ vòng bảng của VCK Giải các khu vực. Cũng trong năm 2008 họ tham Cúp Hoàng đế, họ đánh bại cựu vô địch Nhật Bản Shonan Bellmare ở vòng 3 trên chấm luân lưu, và sau đó bị loại sau khi thua 8–0 trước Vissel Kobe.

Mùa 2009 mang đến những cảm xúc trái chiều, họ chỉ kết thúc ở vị trí thứ tư tại giải khu vực nhưng đã loại Urawa Red Diamonds khỏi Cúp Hoàng đế ở vòng hai, đó là chiến thắng lớn nhất của họ từ trước tới nay.

Với việc giành chức vô địch Shakaijin Cup, họ giành quyền thi đấu tại VCK các khu vực toàn quốc và giành quyền lên chơi tại Japan Football League. Năm 2010, họ giành vị trí thứ 7 ở mùa giải hạng ba đầu tiên.

Năm 2011, dù gặp khó khăn do động đất và sóng thần Tōhoku và kết quả bất lợi trước Sony Sendai, Yamaga vẫn giành được vị trí thứ 4 và lên J. League Hạng 2.

Sau ba mùa giải họ lên J1 League, nhưng xuống hạng chỉ sau một mùa.